Test-Time Scaling via Error Localization
通过错误定位实现推理时缩放
🧭 推理时缩放 · 错误定位引导前缀树搜索 ★ 深度解读
Google DeepMind
利用反馈在 token 级定位错误,保留正确前缀分支执行,大幅提升推理时搜索的 token 效率
📌 工作参考价值(4 点)
- Agent 多步推理的自我修正:在 Agent 执行复杂任务(如工具调用、多轮对话)时,可利用 TTEL 的 token 级错误定位思想,根据环境反馈(如 API 报错)的 log 概率偏移找到出错步骤,仅回退到该步骤重试,避免从头重复整段推理,可大幅降低 token 消耗。
- 生成式推荐 / 广告文案的“局部重写”:当生成推荐理由或广告创意被判为低质时,可借鉴 TTEL 的「前缀保留 + 后缀分支」策略:不重写全文,而是通过模型在有无反馈条件下的 token 概率差定位问题片段,只替换可疑部分,保留高概率前缀,提升生成效率和质量。
- null‑baseline 过滤噪声信号:方法中引入非诊断性反馈 null‑feedback 减去上下文引入的通用概率偏移,得到真正由反馈驱动的不一致。在业务场景(如评分反馈修正)中,可以直接模仿这一 trick,避免因模型对长文本的自然概率衰减而误判错误位置。
- 推理预算固定下的更优 Pareto 前沿:TTEL 在同等 token 预算下 pass@k 更高,表明在实时性要求高的在线服务(如搜索、广告)中,采用局部修补的树搜索可取代独立重采样,更划算地使用推理资源。